Mehlman được sinh ra ở Baltimore, Maryland. Ông là một trong hai người con trai của Judith và Arthur Mehlman. Cha của ông là giám đốc của MuniMae và một đối tác cũ của KPMG, mà ông là người đứng đầu bộ phận kiểm toán của công ty tại Khu vực đô thị Baltimore-Washington ]].[6] Bruce, anh trai của Mehlman, làm việc như một người vận động hành lang tại Mehlman Vogel Castagnetti.[7][8]

Mehlman nhận bằng đại học năm 1988 từ Franklin and Marshall College ở Lancaster, Pennsylvania, nơi ông trở thành thành viên của chương Xi của Phi Kappa Tau. Ông đã nhận bằng J.D. của Trường Luật Harvard vào năm 1991, nơi ông là bạn học của Tổng thống tương lai Barack Obama.